Tomando Deepfakes en serio

La inteligencia artificial no va a desaparecer. Esta tecnología innovadora tiene el potencial de mejorar la eficiencia simplemente simulando el pensamiento humano y puede ser entrenada para resolver problemas específicos. De acuerdo a estatista , AI será una industria más grande de mil millones de dólares para 2025, con aplicaciones que van desde el aprendizaje personalizado en la educación hasta un mejor servicio al cliente en el comercio electrónico y los negocios.

El panorama de los avances en inteligencia artificial es ilimitado y rápido, con nuevos avances que ocurren diariamente. Por ejemplo, en términos de videos y voces de IA, podemos anticipar que se agregarán nuevas funciones y que las generaciones de videos serán cada vez más realista y controlable en los próximos años, uno de los cuales es Deepfake.

En muchos sentidos, esta es una nueva frontera para la ética y la evaluación de riesgos tanto como lo es para otras tecnologías en crecimiento. Esto ha dado lugar a que las organizaciones adopten códigos de ética de IA para especificar formalmente el papel de la inteligencia artificial en el avance de la humanidad. El objetivo de un código de ética de IA es ofrecer a las partes interesadas una dirección muy necesaria cuando se enfrentan a una decisión ética relacionada con el uso de inteligencia artificial.

Una introducción a la tecnología Deepfake

falsificaciones profundas son imágenes, voces y videos creados por o con la ayuda de algoritmos de inteligencia artificial destinados a engañar a la audiencia.

El término "deepfake" fue utilizado por primera vez a fines de 2017 por un usuario de Reddit del mismo nombre, quien compartió videos pornográficos utilizando tecnología de intercambio de rostros de código abierto en el sitio de Reddit. Desde entonces, el término se ha ampliado para incluir "aplicaciones de medios sintéticos" que existían antes de la página de Reddit, así como nuevas creaciones como STYLE-GAN: "imágenes fijas de aspecto realista de personas que no existen".

La tecnología deepfake utiliza el comportamiento de alguien, como la voz, la cara, las expresiones faciales comunes o los movimientos corporales, para generar nuevo contenido de audio o video que apenas se distingue de lo real. Esta tecnología también podría usarse para hacer que personas en el mundo real aparezcan en videos y audios que digan o hagan cosas que nunca dijeron o hicieron, para reemplazar personas en videos existentes o para crear contenido de video con personajes completamente inexistentes, celebridades, o importantes políticos destacados; y esto ha generado numerosas preocupaciones sobre la ética de las falsificaciones profundas.

Los efectos deepfake solían tardar al menos un año en crearse para los expertos en estudios de alta tecnología, pero con el uso del aprendizaje automático, el rápido desarrollo de la tecnología deepfake a lo largo de los años ha hecho que la creación de contenido falso verdaderamente convincente sea mucho más fácil y rápida.

Redes subyacentes a imágenes de IA, videos de IA y audio de IA

Deepfakes comenzó con el desarrollo de redes neuronales artificiales (ANN). Una ANN es un modelo de aprendizaje automático que se basa en una red de neuronas que es notablemente similar al cerebro humano. Sin embargo, difiere en que la IA no hace predicciones sobre los nuevos datos que se le suministran; en su lugar, crea nuevos datos. Estos algoritmos se conocen como redes adversas generativas (GAN), y los avances recientes han impulsado la investigación y el desarrollo, lo que ha dado lugar a la aparición de falsificaciones profundas.

Las redes neuronales convolucionales (CNN), que se basan en ANN, simulan cómo la corteza visual procesa las imágenes para realizar el reconocimiento de imágenes por computadora. Las redes neuronales artificiales y convolucionales sientan las bases para los programas de aprendizaje profundo y son la base de los algoritmos que generan deepfakes en la actualidad: las redes adversarias generativas.

Las aplicaciones de intercambio de rostros, como Zao y Faceapp (uno de los primeros éxitos del deepfake), por ejemplo, permiten a los usuarios intercambiar sus rostros con los de otra persona, ocasionalmente con el de una celebridad, para crear un deepfake o vídeo de IA o imagen en segundos. Estos avances son el resultado de Deep Generative Modelling, una tecnología innovadora que nos permite hacer duplicados de caras existentes y crear representaciones nuevas e increíblemente realistas de personas que no existen.

Esta nueva tecnología ha despertado, justificadamente, preocupaciones sobre la privacidad y la identidad. Pero, si un algoritmo puede construir nuestra apariencia, ¿será posible replicar aún más características de nuestra propia identidad digital, como nuestra voz, o tal vez crear un doble de cuerpo completo?

Amenazas Deepfakes Pose

Los deepfakes representan una amenaza significativa para nuestra comunidad, sistema político y negocios porque ejercen presión sobre los periodistas que luchan por distinguir entre noticias reales y falsas, ponen en peligro la seguridad nacional al publicar propaganda e interrumpir las elecciones, socavan la confianza de los ciudadanos en las autoridades y aumentan la seguridad cibernética. preocupaciones de las personas y las organizaciones.

Es muy probable que los deepfakes representen el mayor peligro para el negocio periodístico, ya que son más peligrosos que las noticias falsas "convencionales", ya que son más difíciles de detectar y es más probable que los consumidores asuman que la falsificación es real. Además, la tecnología permite la creación de videos de noticias aparentemente creíbles, lo que pone en peligro la reputación de los periodistas y los medios. A partir de solo unas pocas imágenes, ahora se pueden crear videos. y el material de video mal atribuido, como una marcha de protesta real o un conflicto violento subtitulado para implicar que tuvo lugar en otro lugar, es un problema creciente que se verá agravado por el aumento de las falsificaciones profundas.

Reuters , por ejemplo, descubrió un video que afirmaba mostrar el momento en que la policía mató a tiros a un sospechoso mientras buscaba videos de testigos presenciales del tiroteo masivo en Christchurch, Nueva Zelanda. Sin embargo, rápidamente se dieron cuenta de que se trataba de un hecho diferente en los Estados Unidos y que el sospechoso del tiroteo en Christchurch no había sido asesinado.

Es suficiente que las agencias de inteligencia tengan algo de miedo, ya que los deepfakes pueden usarse para poner en peligro la seguridad nacional al propagar propaganda política e interferir con las campañas electorales.

Las autoridades de inteligencia de EE. UU. han advertido a menudo sobre los peligros de la participación extranjera en la política estadounidense, particularmente en el período previo a las elecciones. Poner palabras en la boca de alguien. en un video viral es un arma poderosa en las guerras de desinformación de hoy en día, y las películas editadas pueden influir fácilmente en la opinión de los votantes. Si bien es probable que tales grabaciones fabricadas generen disturbios internos, disturbios y disturbios electorales, otros estados-nación pueden optar por llevar a cabo su política exterior basada en el engaño, lo que podría conducir a crisis y guerras internacionales.

También es probable que un flujo continuo de tales grabaciones impida la alfabetización digital y la confianza de los ciudadanos en la información proporcionada por las autoridades. Grabaciones falsas, que se pueden generar fácilmente con una función de texto a voz como la de Synthesys voces de IA de funcionarios gubernamentales que expresan cosas que nunca sucedieron, hacen que la gente desconfíe de las autoridades. Además, las personas pueden descartar las cintas de video auténticas como falsas simplemente porque han aprendido a asumir que todo lo que no quieren aceptar debe ser falso. En otras palabras, el mayor peligro es que las personas comiencen a ver todo como un engaño en lugar de ser engañadas.

Otro problema que ofrecen los deepfakes son las vulnerabilidades de ciberseguridad. Deepfakes también podría usarse para influir en el mercado y las acciones, por ejemplo, representando a un director ejecutivo hablando obscenidades racistas, anunciando una fusión falsa o presentándolos como si hubieran cometido un delito. Además, la pornografía o los anuncios de productos falsos podrían usarse para dañar la marca de una empresa, chantajear o humillar a la gerencia. La tecnología deepfake también puede permitir la suplantación digitalizada de un ejecutivo, por ejemplo, para solicitar una transferencia de efectivo urgente o información privada de un empleado.

El lado positivo de las falsificaciones profundas

A pesar de los peligros potenciales que presenta la tecnología deepfake, puede tener aplicaciones positivas en áreas como entretenimiento, medios educativos, comunicaciones digitales, juegos, redes sociales y atención médica.

Por ejemplo, en películas en las que las voces de los actores se han perdido debido a una enfermedad, la tecnología deepfake puede ayudar a crear voces sintéticas o actualizar el metraje de la película en lugar de rehacerlo. Como resultado, los cineastas podrán reproducir escenas de películas antiguas, crear nuevas películas protagonizadas por actores muertos hace mucho tiempo, emplear efectos CGI y la edición compleja de rostros en la posproducción, y eleva los videos amateur a un estándar profesional.

La tecnología Deepfake también permite el doblaje de voz natural para películas en cualquier idioma, lo que permite que varias audiencias disfruten de películas y materiales educativos de manera más efectiva. A Comercial mundial de concientización sobre la malaria de 2019. protagonizada por David Beckham rompió las fronteras del idioma al usar tecnologías visuales y de alteración de la voz para que pareciera multilingüe.

https://www.youtube.com/watch?v=QiiSAvKJIHo

La tecnología Deepfakes proporciona telepresencia mejorada en juegos en línea y mundos de chat virtual, asistentes inteligentes de aspecto y sonido natural, y réplicas virtuales de personas. Esto contribuye al desarrollo de mejores relaciones humanas y participación en línea.

Las empresas también pueden beneficiarse mucho de las posibilidades de la tecnología deepfake aplicable a la marca, ya que tiene la capacidad de revolucionar significativamente el comercio electrónico y la publicidad.

Por ejemplo, la tecnología Deepfake puede habilitar pruebas virtuales para dar a los clientes la capacidad de obtener una vista previa de cómo les quedaría un atuendo antes de comprarlo y pueden hacer comerciales de moda personalizados que varían según la hora, el clima y el espectador, así como crear avatares de IA que puede personalizar las comunicaciones con los clientes y habilitar contenido superpersonal que transforma a las personas en modelos. Además, la capacidad de probarse ropa en Internet es un uso potencial obvio; la tecnología no solo permite que las personas hagan clones digitales de sí mismas, sino que también permite que las personas se prueben la ropa de novia en forma digital y, a su vez, experimenten virtualmente el lugar de una boda.

Prácticas éticas a adoptar

La innovación a gran escala es una cuestión ética, ya que la ética se ocupa básicamente de cualquier cosa que pueda mejorar o dificultar el bienestar humano. Como resultado, la ética es importante para juzgar los objetivos de la innovación, como los deepfakes, así como el proceso mediante el cual se lleva a cabo y los resultados que se derivan de él. La pregunta fundamental es: "¿Para quién están diseñados los deepfakes?"

"¿Cuál es el propósito de su creación?" "¿Cómo se pueden mitigar las consecuencias más graves?" Responder estas preguntas puede ayudar a organizaciones e individuos a alinearse con lo siguiente marco ético , que UNICEF mantiene independientemente de si trabajan en una imagen, audio o video falso.

Incluyen:

• Diseño pensando en el usuario.
• Comprender el ecosistema existente.
• Diseño a escala.
• Construir para la sostenibilidad.
• Estar basado en datos.
• Utilice estándares abiertos, datos abiertos, código abierto e innovación abierta.
• Reutilizar y mejorar.
• No hagas daño.
• Sea colaborativo.